Roadmapping the AI race to help ensure safe development of AGI
本文附有一份可视化路线图，您可以在此处查看和下载。路线图为何重要？路线图是一种实用工具，它使我们能够展望未来，预测不同的可能路径，并确定可能带来机遇或问题的领域。其目的是可视化不同的场景，以便做好准备，避免可能导致不良未来甚至更糟的灾难的场景。这也是一种可视化理想未来并找到实现它的最佳路径的练习。路线图简介本路线图从一家虚构公司 (C1) 的角度描述了通用人工智能 (AGI) 系统开发的三种假设场景。主要关注人工智能竞赛，利益相关者努力实现强大的人工智能，以及它对安全的影响。它列出了关键参与者在各种“事态”下可能做出的决策，这些决策会导致不同的结果。交通灯颜色编码用于可视化潜在结果，绿色表示积
Report from the AI Race Avoidance Workshop
GoodAI 和 AI 路线图研究所东京，ARAYA 总部，2017 年 10 月 13 日作者：Marek Rosa、Olga Afanasjeva、Will Millership (GoodAI)研讨会参与者：Olga Afanasjeva (GoodAI)、Shahar Avin (CSER)、Vlado Bužek (斯洛伐克科学院)、Stephen Cave (CFI)、Arisa Ema (东京大学)、Ayako Fukui (Araya)、Danit Gal (北京大学)、Nicholas Guttenberg (Araya)、Ryota Kanai (Araya)、George
通用人工智能开发中的竞争避免 Olga Afanasjeva、Jan Feyereisl、Marek Havrda、Martin Holec、Seán Ó hÉigeartaigh、Martin Poliak 摘要◦ 通用人工智能系统研究正在取得令人鼓舞的进展。这一进展可能会导致 AGI 出现明显的赢家通吃竞赛。◦ 有人担心，这样的竞赛可能会促使人们在安全方面偷工减料，并违背关键参与者之间既定的协议。◦ AI 路线图研究所举行了一次研讨会，开始跨学科讨论如何避免这种危险竞赛可能发生的情况。◦ 重点是确定问题范围、定义相关参与者，并通过示例路线图可视化 AI 竞赛的可能场景。◦ 研讨会是为通用
Back to the core of intelligence … to really move to the future
客座作者：José Hernández-Orallo，瓦伦西亚技术大学教授二十年前，我开始研究机器智能指标。那时，在第二次人工智能寒冬的冰冷日子里，很少有人真正对测量人工智能完全缺乏的东西感兴趣。很少有人，比如 David L. Dowe 和我，对与算法信息理论相关的智能指标感兴趣，其中代理与世界之间的交互模型是比特序列，智能是使用 Solomonoff 和 Wallace 的归纳推理理论来制定的。与此同时，似乎每年都会提出数十种图灵测试的变体，引入了 CAPTCHA，David 展示了使用基于大开关方法的非常简单的程序解决一些智商测试是多么容易。如今，蓬勃发展的机器学习领域引发了 AI 的新
客座文章作者：Simon Andersson，高级研究员 @GoodAI 执行摘要 追踪人工智能中尚未解决的主要问题可以让我们诚实地了解尚待实现的目标，并促进创建通用人工智能的路线图。本文档目前确定了 29 个未解决的问题。对于每个主要问题，建议使用示例测试来评估研究进展。简介 本文档确定了人工智能中的未解决的问题。它旨在简明概述该领域面临的最大挑战和当前的最新技术水平，符合人工智能路线图研究所关注的“开放研究问题”主题。挑战分为人工智能完整问题、封闭领域问题以及常识推理、学习和感觉运动能力的基本问题。我意识到第一次尝试调查开放问题必然是不完整的，欢迎读者反馈。为了帮助加速对通用人工智能的搜索
客座文章作者：Martin Stránský，研究科学家 @GoodAI图 1. GoodAI 架构开发路线图比较（全尺寸）人工智能，尤其是深度学习领域的最新进展令人叹为观止。这对于任何对该领域感兴趣的人来说都是非常鼓舞人心的，但人类水平的人工智能的真正进展却很难评估。人工智能的评估是一个非常困难的问题，原因有很多。例如，对智能机器的基本要求缺乏共识是开发比较不同代理的统一方法的主要障碍之一。尽管许多研究人员专门关注这个主题（例如 José Hernández-Orallo 或 Kristinn R. Thórisson 等），但该领域将受益于人工智能社区的更多关注。评估人工智能的方法是帮助评
